«Το ΑΙ μπορεί να μας σκοτώσει όλους»: Συναγερμός από πρώην ερευνητή της Google DeepMind

Ένας πρώην ερευνητής της Google DeepMind προειδοποιεί ότι η Τεχνητή Νοημοσύνη θα μπορούσε να εξελιχθεί σε απειλή για την ίδια την ανθρωπότητα, προσθέτοντας τη φωνή του σε μια ολοένα μεγαλύτερη ομάδα ανθρώπων μέσα από τον κλάδο που ζητούν να επιβραδυνθεί η ανάπτυξη των ισχυρότερων συστημάτων.

Ο Μπιλάλ Τσουγκντάι, ο οποίος παραιτήθηκε πρόσφατα από τη Google DeepMind, είχε εργαστεί σε ζητήματα ασφάλειας και «ευθυγράμμισης» της τεχνητής γενικής νοημοσύνης (AGI). Όπως ανέφερε, η εμπειρία του μέσα στην εταιρεία τον έκανε να ανησυχεί βαθιά για την ταχύτητα με την οποία εξελίσσεται η τεχνολογία.

«Μπορεί να μας σκοτώσει όλους»

«Πιστεύω ειλικρινά ότι η τεχνητή νοημοσύνη έχει τη δυνατότητα να μας σκοτώσει όλους και ότι ίσως ο χρόνος που έχουμε για να αποφύγουμε αυτό το αποτέλεσμα εξαντλείται», έγραψε ο Τσουγκντάι σε αναρτήσεις του.

Ο ίδιος υποστηρίζει ότι ο ρυθμός προόδου από τότε που μπήκε στον κλάδο, το 2022, ήταν «ιλιγγιώδης». Ως χαρακτηριστικό παράδειγμα αναφέρει την εξέλιξη των AI agents, συστημάτων που μπορούν να αναλαμβάνουν σύνθετες εργασίες με περιορισμένη ανθρώπινη παρέμβαση.

Κατά την εκτίμησή του, είναι πιθανό μέσα στα επόμενα χρόνια να δημιουργηθούν συστήματα τεχνητής νοημοσύνης που θα ξεπερνούν σημαντικά τις ανθρώπινες ικανότητες σε πολλούς τομείς.

Το πρόβλημα, σύμφωνα με τον ίδιο, είναι ότι δεν υπάρχει βεβαιότητα πως ένα τέτοιο σύστημα θα εξακολουθήσει να συμπεριφέρεται με τον τρόπο που επιθυμούν οι άνθρωποι.

Το μεγάλο στοίχημα του alignment

Στο επίκεντρο βρίσκεται το λεγόμενο alignment, δηλαδή η προσπάθεια να διασφαλιστεί ότι οι στόχοι και οι συμπεριφορές ενός προηγμένου συστήματος παραμένουν ευθυγραμμισμένοι με τις ανθρώπινες επιδιώξεις.

Ο Τσουγκντάι υποστηρίζει ότι η σημερινή κατανόηση του τρόπου με τον οποίο εκπαιδεύονται τα συστήματα ώστε να επιδιώκουν αυτό που θέλουν οι άνθρωποι παραμένει εξαιρετικά περιορισμένη.

Ο ίδιος περιγράφει ως πιθανό κίνδυνο ένα εξαιρετικά ισχυρό σύστημα που θα μπορούσε να επιδιώξει έναν στόχο με τρόπους διαφορετικούς από εκείνους που είχαν προβλέψει οι δημιουργοί του, οδηγώντας ακόμη και σε απώλεια του ανθρώπινου ελέγχου.

Ωστόσο, ο πρώην ερευνητής δεν θεωρεί αναπόφευκτη μια τέτοια εξέλιξη. Αντίθετα, δηλώνει ότι πιστεύει πως η τεχνητή νοημοσύνη μπορεί να αναπτυχθεί με ασφάλεια, εφόσον οι εταιρείες περιορίσουν την ταχύτητα της σημερινής «κούρσας» για όλο και ισχυρότερα μοντέλα.

Μετά την αποχώρησή του από τη DeepMind, ο Τσουγκντάι εντάχθηκε στη μη κερδοσκοπική BlueDot Impact, η οποία δραστηριοποιείται στην εκπαίδευση ανθρώπων στον τομέα της ασφάλειας της τεχνητής νοημοσύνης.

Νέα προειδοποίηση από πρώην ερευνητή

Η παρέμβαση του Τσουγκντάι ήρθε λίγες ημέρες μετά την αποχώρηση του Τζέικομπ Κόξον, πρώην ερευνητή στις Anthropic και OpenAI.

Ο Κόξον έχει υποστηρίξει ότι οι εταιρείες που αναπτύσσουν την τεχνητή νοημοσύνη αναλαμβάνουν τεράστιους κινδύνους, ενώ έχει προειδοποιήσει ακόμη και για το ενδεχόμενο η τεχνολογία να οδηγήσει σε καταστροφικές συνέπειες μέσα στην επόμενη δεκαετία.

Οι δύο παρεμβάσεις έρχονται σε μια περίοδο κατά την οποία οι ανησυχίες δεν εκφράζονται πλέον μόνο από μεμονωμένους ερευνητές, αλλά και από κορυφαία στελέχη των ίδιων των εταιρειών τεχνητής νοημοσύνης.

Παράλληλα, περιστατικά με AI agents έχουν εντείνει τη συζήτηση. Η OpenAI έχει αναφέρει ότι σε εσωτερικές δοκιμές μοντέλα κατάφεραν να παρακάμψουν περιορισμούς και να αποκτήσουν πρόσβαση σε εξωτερικά συστήματα, μεταξύ άλλων στην πλατφόρμα Hugging Face. Το περιστατικό χρησιμοποιήθηκε στη συνέχεια ως παράδειγμα των προκλήσεων που δημιουργούν τα ολοένα πιο αυτόνομα συστήματα.

Οι ίδιοι οι πρωταγωνιστές πατούν φρένο

Στο ίδιο κλίμα, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμόντεϊ, ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης.

Ο Αμόντεϊ δεν ζητά να σταματήσει η έρευνα, αλλά να υπάρξει μεγαλύτερη χρονική απόσταση ανάμεσα στα τεχνολογικά άλματα, ώστε να μπορούν να αξιολογούνται οι κίνδυνοι πριν από την ανάπτυξη ακόμη ισχυρότερων συστημάτων.

Μεταξύ των προτάσεών του είναι η πρόσβαση ανεξάρτητων αξιολογητών στα συστήματα των εταιρειών, η δημιουργία κοινών προτύπων ασφαλείας και μεγαλύτερος διεθνής συντονισμός.

Η έκκλησή του απέκτησε ιδιαίτερη βαρύτητα όταν την υποστήριξαν δημόσια ο επικεφαλής της OpenAI Σαμ Άλτμαν και ο Έλον Μασκ.

Ο Άλτμαν δήλωσε ότι συμφωνεί πως πρέπει να υπάρξει καλύτερος ρυθμός στην ανάπτυξη των πιο προηγμένων μοντέλων και τάχθηκε υπέρ της παρουσίας ανεξάρτητων αξιολογητών με πρόσβαση στα συστήματα των εταιρειών. Ο Μασκ, από την πλευρά του, απάντησε στον Αμόντεϊ ότι «έχει δίκιο».

Ακόμη και ο συνιδρυτής της Google DeepMind, Ντέμης Χασάμπης, δήλωσε ότι η κατεύθυνση της πρότασης είναι σωστή, αν και οι λεπτομέρειες χρειάζονται επεξεργασία.

Η κούρσα με την Κίνα

Η επιβράδυνση, ωστόσο, δεν είναι εύκολη υπόθεση. Ο Αμόντεϊ έχει αναγνωρίσει ότι τα οικονομικά και στρατηγικά κίνητρα για να ξεπεράσει μια εταιρεία τους ανταγωνιστές της είναι τεράστια. Το ίδιο ισχύει και σε γεωπολιτικό επίπεδο, καθώς οι ΗΠΑ και η Κίνα ανταγωνίζονται για την τεχνολογική πρωτοπορία.

Αυτό δημιουργεί ένα βασικό δίλημμα: πόσο μπορεί να επιβραδύνει μια χώρα ή μια εταιρεία χωρίς να φοβάται ότι οι ανταγωνιστές της θα συνεχίσουν με ταχύτερο ρυθμό;

Η συζήτηση έχει πλέον μεταφερθεί και στο επίπεδο της εθνικής ασφάλειας, καθώς η τεχνητή νοημοσύνη θεωρείται τεχνολογία με πιθανές στρατιωτικές εφαρμογές.

Ο Τραμπ απορρίπτει τους φόβους

Σε διαφορετική κατεύθυνση κινείται ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ, ο οποίος έχει απορρίψει τις προειδοποιήσεις για υπαρξιακό κίνδυνο από την τεχνητή νοημοσύνη χαρακτηρίζοντάς τες «φάρσα».

Ο Τραμπ υποστηρίζει ότι οι ΗΠΑ διαθέτουν ήδη επαρκείς μηχανισμούς για να αντιμετωπίσουν προβλήματα που ενδέχεται να προκαλέσει η AI και έχει προειδοποιήσει ότι μια επιβράδυνση της αμερικανικής τεχνολογίας θα μπορούσε να ευνοήσει την Κίνα.

Παράλληλα, έχει επιτεθεί στον Αμόντεϊ, ενώ η κυβέρνηση εμφανίζεται επιφυλακτική απέναντι στις εκκλήσεις των ίδιων των εταιρειών για αυστηρότερη κρατική ρύθμιση. Ο αντιπρόεδρος Βανς έχει επίσης εκφράσει σκεπτικισμό για το γεγονός ότι οι ίδιες οι εταιρείες ζητούν από την κυβέρνηση να θεσπίσει κανόνες για τον κλάδο.

Η αντιπαράθεση, επομένως, δεν αφορά μόνο το αν η AI είναι επικίνδυνη. Αφορά και το ποιος θα αποφασίζει για τα όρια της ανάπτυξής της και κατά πόσο οι ΗΠΑ μπορούν να περιορίσουν την τεχνολογία χωρίς να χάσουν το πλεονέκτημά τους απέναντι στην Κίνα.

Μπάνον και Σάντερς στην ίδια πλευρά

Η συζήτηση έχει πλέον περάσει και στο αμερικανικό πολιτικό σκηνικό, με μια ασυνήθιστη σύμπτωση: ο Δημοκρατικός γερουσιαστής Μπέρνι Σάντερς και ο Στιβ Μπάνον, πρώην σύμβουλος του Τραμπ, έχουν εκφράσει και οι δύο την ανάγκη για αυστηρότερους περιορισμούς στην τεχνητή νοημοσύνη, παρά τις μεγάλες πολιτικές τους διαφορές.

Ο Σάντερς έχει ζητήσει «σαφείς κανόνες ασφαλείας» για την AI, με έμφαση στις επιπτώσεις της τεχνολογίας στους εργαζομένους, την οικονομία και την κοινωνία. Ο Μπάνον, από διαφορετική πολιτική αφετηρία, έχει επίσης ταχθεί υπέρ περιορισμών και ελέγχων στην ανάπτυξη της τεχνολογίας.

Η κοινή τους θέση στο συγκεκριμένο ζήτημα δεν σημαίνει ότι συμφωνούν συνολικά στην πολιτική ή ότι προτείνουν το ίδιο μοντέλο ρύθμισης. Αποτυπώνει, ωστόσο, το εύρος της ανησυχίας που έχει δημιουργηθεί στις ΗΠΑ γύρω από την ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης.

Το μεγάλο ερώτημα

Την ίδια στιγμή, δεν υπάρχει επιστημονική συναίνεση ότι η τεχνητή νοημοσύνη θα οδηγήσει αναπόφευκτα στην καταστροφή της ανθρωπότητας. Ορισμένοι ειδικοί θεωρούν τις πιο ακραίες προβλέψεις υπερβολικές και επισημαίνουν ότι αρκετά από τα σενάρια που περιγράφονται παραμένουν υποθετικά.

Αυτό που έχει αλλάξει, ωστόσο, είναι ότι η συζήτηση δεν περιορίζεται πλέον σε θεωρητικά σενάρια. Οι δυνατότητες των AI agents αυξάνονται, οι εταιρείες αναπτύσσουν ολοένα ισχυρότερα μοντέλα και περιστατικά με συστήματα που ενεργούν αυτόνομα έχουν προκαλέσει νέες συζητήσεις για τα όρια του ανθρώπινου ελέγχου.

Και έτσι, από την Google DeepMind και την Anthropic μέχρι την OpenAI και την αμερικανική πολιτική σκηνή, το ίδιο ερώτημα επιστρέφει ξανά και ξανά: η τεχνητή νοημοσύνη εξελίσσεται με ρυθμό που η κοινωνία μπορεί πραγματικά να προλάβει να κατανοήσει και να ελέγξει;

Με πληροφορίες από nypost.com